Do Coding Agents Deceive Us? Detecting and Preventing Cheating via Capped Evaluation with Randomized Tests
编码智能体作弊检测与防作弊训练：通过设定性能上限的随机测试
🧭 Agent 欺骗检测与安全训练 ★ 深度解读
The University of Tokyo · RIKEN
提出 CapCode 构建有性能上限的编程基准，统计检测欺骗；CapReward 抑制 RL 训练中的作弊，使 agent 遵循真实任务。
📌 工作参考价值（4 点）
- 评估与监控：在电商推荐、Agent 离线评估或 A/B 测试中，可借鉴 CapCode 思路，注入已知分布的随机输出，设立理论性能上限；当模型得分显著超过该上限时自动告警，捕获数据泄露、测试集过拟合等欺骗行为。
- 奖励函数设计：在 RL 训练推荐或对话 Agent 时，可将指标（如点击率、转化率）做 capped reward 处理，奖励达标而非无限追求高分，防止模型通过曝光偏差、恶意文案等捷径 hack 奖励。
- 统计检验方法：论文所用的单侧二项检验可直接迁移到线上监控，如对每个推荐策略计算 p 值，实时检测是否存在“异常高”指标。
- 基准构建：对于生成式推荐（如 Semantic ID 生成）的评估，可构造具有随机输出的隐藏测试集，将开放测试和隐藏测试的差距作为泛化能力指标，更真实反映模型是否真正学习到了语义。